نوآوری و دل نگرانی های آن

خرید بک لینک

قدرت و پیشرفت:

تدوین کتاب "نبرد هزار ساله ما بر سر فنآوری و رفاه Our Thousand-Year Struggle Over Technology and Prosperity"، نوشتهی دو اقتصاددان به نام های دارون آچموغلو Daron Acemoglu و سیمون جانسون Simon Johnson، پیش از عرضه چتجیپیتی و مدلهای هوش مصنوعی دیگر تکمیل شده بود. دهشت کنونی از هوش مصنوعی موجب میشود که تأکید کتاب بر فراگیربودنِ خوش بینی به فناوری، همچون یادگاری در دوران گذشته به نظر رسد. نویسندگان این کتاب هم نگرانیهای کنونی را پیشبینی کرده هشدار میدهند که هوش مصنوعی "مادر تمام فناوریهای نامناسب" است. آنها یک الیگارشی کوچک بی قید و بند را مسئول تولید ابزارهای زیانبار هوش مصنوعی میدانند که شروع به نابودی مشاغل خوب در سراسر جهان کرده است. این نویسندگان هشدار میدهند که اگر دولتهای ملی نتوانند خسارتهای وارده توسط این ابزارها را مهار کنند، شکاف های اجتماعی را تشدید خواهند کرد. آچموغلو و جانسون می گویند که دولت ها باید راهی برای به اشتراکگذاری گسترده تر مزایای این پیشرفتها پیدا کنند و کشورها باید یک "چارچوب نهادی و مشوق هایی را ایجاد کنند که از پشتوانه سیاستهای دولتی برخوردارند، تدابیری که یک گفتمان سازنده مقوم آن باشد تا بخش خصوصی را از روی آوردن افراطی به اتوماسیون و نظارت بازداشته به سمت فناوریهایی سوق دهد که بیشتر دوستدار کارگران هستند."

در بحث درباره چالشهای امروز، نویسندگان کتاب به نمونه های فراوانی از چند و چونِ یک هزاره برخورد جوامع با دگرش های فناورانه اشاره می کنند. نوآوری یک نیروی خودکار طبیعی نیست که مردم چارهای جز سازگاری با آن نداشته باشند. چگونگی درک مردم از فناوریها – روایت هایی که درباره نقش اختراعات تازه میسازند - میتواند تعیین کننده باشد که آیا این فناوریها اثراتی مفید یا مخرب خواهند داشت. بعد از اینکه فناوریهای جدید توسعه یافته و به کار گرفته شوند، میتوانند پیامدهای بسیار متفاوتی برای مشاغل و درآمدها به همراه آورند، بسته به اینکه آیا از آنها برای کمک به کارگران انسانی استفاده شود یا جایگزینی آنها. شاید هم در مدیریتِ مهمترین مسئله حال حاضر، یعنی اشتراک گسترده بهرههای اقتصادی تازه ای که با پیشرفتهای فناورانه حاصل میشوند، تنها در صورتی به مقصود برسیم که دولت و نهادهای اجتماعی مانند اتحادیههای کارگری بتوانند وزنه متقابلی در برابر قدرت بازار شرکتهای فناوری ایجاد کنند. مردم تنها در صورتی در برابر فناوری های تازه بیتوان میشوند که جامعه اجازه این کار را بدهد.

روایت های بد، پیامدهای هراسناک:

نوآوریهای فناورانه – از جمله ابزارهای بهتر برای کشاورزی در قرون وسطی، ماشین چرخ پنبه و دستگاه مکانیکی نساجی در قرن نوزدهم، فناوریهای رایانشی در 20 سال گذشته - دنیا را دگرش دادهاند. اما این پیشرفت هرگز روان و آرام نبوده است. هر موج نوآوری مشکلات خود را به همراه دارد و بسیاری از افراد زیان میکنند. اینکه جوامع چه تصوری از نقش فناوری داشته باشند، تقریباً به اندازهی خود فناوری مهم است. برای انجام دگرش فناورانه گستردهای که برای جامعه مفید باشد، باید یک دیدگاه مشترک در جامعه شکل گیرد. به عنوان مثال، تصور گستردهای از گذار نسبتاً پرشتاب از سوختهای فسیلی به انرژیهای تجدیدپذیر که انگیزه اختراع سریع و بکارگیری فزاینده جایگزینهای مقرون به صرفه از جمله فتوولتائیک و انرژی بادی را فراهم آورده است.

روایت ها و گفتمان های نادرست درباره فناوری میتوانند به پیامدهایی وحشتناک منجر شوند. به عنوان مثال، ساخت کانال پاناما از سال 1903 تا 1914 از دیدگاه بسیاری یک اشتباه بزرگ بود. این مسیر آبی که اقیانوسهای اطلس و آرام را به یکدیگر متصل میکرد، محصول ذهن فردیناند دو لسپ Ferdinand de Lesseps بود، دیپلمات فرانسوی و سازنده مشهور کانال سوئز که در سال 1869 به پایان رسید. اگرچه ساخت کانال سوئز به دلیل تاخیر طولانی عملیات ساخت، هزینههایی به مراتب بیش از بودجه پیشبینیشده اش را داشت و سپس هم از نظر رفت و آمد کشتی ها عملکرد مطلوبی نداشت، اما هنوز هم انگیزه بخش ایجاد کانالهایی تازه در قرن نوزدهم بود – خوش بینی روز نسبت به فن آوری - و سودهای زیادی هم برای سرمایهگذارانش با خود آورد. با موفقیت بزرگ این پروژه، لسپ تصمیم گرفت که رؤیای قدیمی ساخت کانالی در آمریکای مرکزی را به واقعیت تبدیل کند. مانند برنامههایش برای ساخت کانال سوئز، او یک دیدگاه جذاب از قدرت فناوری برای اتصال جهان و ترقی تجارت ارائه داد. اما این پروژه یک فاجعه مهندسی بود، با تدارک بد و اجرای ضعیف، همچنین فاجعهای برای انسانها بود که کارگران را به بیماری تب زرد مبتلا کرد. شرکت کانال پاناما در وضعیت افول قرار گرفته و به حکم دادگاه به فروش گذاشته شد و لسپ هم، که پادشاه رمزارز آن زمان بود، با شهرتی از دست رفته، درگذشت. این ایده، سرابی بود که لسپ و سرمایهگذارانش را به نابودی کشاند.

آچموغلو و جانسون استدلال میکنند که همانند موج جنون ساخت کانال در قرن نوزدهم، دیدگاهی که امروز هم رهبران توسعه و بهرهبرداری از هوش مصنوعی دارند، سهمی از خوشنامی ندارد. این آفریدگاران، پیشرفت فناورانه را تنها از منظر دستیابی ماشینها به همسنگی با انسانها اندازهگیری میکنند، که این چشم انداز، به عبارت دیگر، آنها را وا می دارد که نوآوران را به سمت تولید محصولاتی برای جایگزینی انسانها هدایت کنند. اما نویسندگان کتابِ مورد اشاره، به جای آن، پیشنهاد میدهند که تلاشها و سرمایهگذاری ها باید با ایده "استفاده از ماشین" به پیش رانده شود تا فناوریها برای کمک به انسانها در دستیابی به اهداف خود توسعه یابند.

این کتاب ریشههای گرایش هوش مصنوعی به سمت جایگزینی انسانها را به ایده های ریاضیدان بریتانیایی آلان تورینگ Alan Turing نسبت می دهد که پیشنهاد داد اگر فرآیند محاسبات الگوریتمیِ گام به گام ماشینها، نتایجی تولید کند که تمایزی با بروندادهای بشری نداشته باشد، میتوان گفت که ماشینها "فکر" میکنند. آچموغلو و جانسون ادعا میکنند که این موضوع چشمانداز جذابی را از یک نسخهی کاملاً متفاوتی از "پیشرفت" در رایانش ارائه می دهد که در این چارچوب آن کارهایی تعریف می شود که انسانها نمی توانند بخوبی انجام دهند، هرچند کتاب، مثالی در این زمینه ذکر نمیکند. در نبود چشم انداز مثبت و مشترکی از اینکه چگونه توانمندی های هوش مصنوعی را هدایت کنیم، جوامع برای چاره کردن نگرانی های فزاینده درباره این فن آوری و نابرابری های اقتصادهای بازار سرمایه به چالش خواهند افتاد.

نوآوری و نومیدی - برترین تأثیر هر فناوری مهم تازه، چگونگی دگرش در اقتصاد است که بر شغلها و زندگی روزمره تأثیر میگذارد. نوآوریها از جمله معرفی برق به جای بخار، تلگراف و تراکتورهای سریعتر، تماماً بر افزایش بهرهوری و تولید در کسبوکارها تأثیر میگذارند. اما نوآوریها همچنین ممکن است کارفرمایان را ترغیب به تغییر اندازه و ترکیب نیروی کار خود کنند، مشروط بر اینکه افزودن به شمار کارگران با افزایش سود یا افزایش تولید کسب و کارشان همراه شود. اگر تقاضا برای یک محصول رشد کند، پس بکارگیری فناوری افزاینده بهرهوری، خبر خوبی است، حتی اگر فناوری، جایگزین برخی از کارگران شود، چه بسا، کل شمار شغلها افزایش یابد. این مورد با معرفی دستگاههای خودپرداز پس از سال 1969 دیده شد که تعداد صندوقداران بانک را کاهش داد اما تعداد کل شغلها در بانکداری را افزایش داد. اما اگر فناوری تنها منجر به کاهش هزینه اما بی نیاز از مهارت انسانی شود (زمانی که شغلهایی که نیاز به کارگران ماهر دارند جای شغلهایی را بگیرند که چنین نیازی ندارند)، آنگاه بیشتر کارگران آسیب میبینند. این وضعیتی بود که پس از اتوماسیون خطوط تولید، که از دهه 1970 آغاز شد، پدید آمد که همزمان با یک رکود اتفاق افتاد و به کاهش چشمگیری در جوامع "کمربند زنگی" آمریکای شمالی انجامید.

هر دوره بزرگی از نوآوری، نگرانیهایی در مورد تأثیر نوآوریها بر روی شغلها را به همراه آورده است. در سال 1960، نامزد دموکرات ریاست جمهوری آمریکا یعنی جان اف. کندی متوجه شد که روند "جایگزینی پایدار مردان توسط ماشینها – با پیشرفت اتوماسیون - تهدید به نابودی هزاران شغل و از بین رفتن کامل برخی کارخانهها را در خود دارد. این وضعیت به ترس و نگرانی در میان کارگران و خانوادههای آنها دامن زده و موجودیت برخی جوامع را بطور کامل تهدید میکند." این نگرانیها، پیوسته ذهن سیاستمداران را به خود مشغول می کرد. در انتخابات ریاستجمهوری آمریکا در سال 1992، کاندیدای دموکرات، بیل کلینتون، در واکنش به افزایش نگرانی های ناشی از اتوماسیون وعده داد که برنامههای بازآموزی نیروی انسانی را ارائه داده و راهبردی را برای ایجاد "شایستهترین نیروی کار آموزش دیده در جهان" اجرا کند چرا که در غیر اینصورت، "روندهای نزولی حقوق و مزایا، افزایش هزینههای درمانی و ناامنی بیشتر شغلی به روندی روزانه تبدیل خواهد شد."

اکنون هم موج نوین فناوری، این نگرانیها را دوباره زنده کرده است. پژوهشگران شرکت های OpenAIوOpen Research و نیز پژوهندگان دانشگاه پنسیلوانیا تخمین زدهاند که در تقریباً 50 درصد تمام فرصت های شغلی آمریکا ممکن است نیمی از وظایف با بکارگیری هوش مصنوعی انجام شود. با این حال، تاریخ نشان میدهد که ترسهای مربوط به نابودی گسترده مشاغل توسط فناوری های تازه، در اکثر موارد غالباً بی پایه از آب در آمده اند. در واقع، برخلاف ادعای آچموغلو و جانسون که روباتیزه شدن موجب کاهش شغلها و دستمزدها شده است، اقتصاددانان در مجموع بر این باورند که شرکتهایی که استفاده بیشتری از اتوماسیون داشته اند، شغلها را گسترش داده و حقوق بالاتری پرداختهاند.

متخصصان هنوز درگیر کندوکاو این پرسشها هستند؛ پرسش فراگیرتر، همانطور که دیوید آتور David Autor اقتصاددان، آن را در عنوان یک مقاله آورد، این است که: "چرا هنوز هم اینهمه شغل وجود دارد؟" پاسخ کوتاه این است که فناوری نه تنها نیاز به کار انسانی را از بین نمیبرد؛ بلکه طبیعت شغلها در یک جامعه و بنابراین نوع کارگران مورد نیاز یک جامعه را تغییر میدهد. اتوماسیون اغلب سطح مهارت مورد نیاز برای انجام وظایف موجود را کاهش میدهد، پدیدهای که صنعت نساجی نیوهمپشایر در قرن نوزدهم را شکل داد. رواج ماشینآلات، شغلهای جدیدی برای مهندسان دارای مهارتهای بالا و با درآمد مناسب ایجاد کرد که میتوانستند تجهیزات جدیدی را تعمیر و نگهداری کرده و ارتقا دهند در حالی که کارگران غیرماهر هم عملیات روزمره ماشینها را انجام می دادند. هرچه که استانداردهای فناوری نساجی بالاتر رفت، نیاز به مهندسی خاص کاهش یافت زیرا کارگران اکنون ماشینهای خود را تعمیر و نگهداری میکردند اما تقاضا برای محصولات نساجی هم با گسترش اقتصاد رشد کرد - و همراه آن، تعداد شغلهای موجود هم افزایش یافت. نتیجه این شد که تمام کارگران، و نه فقط متخصصان، در این بخش دستمزد بالاتری داشتند.

اینگونه قیاسهای تاریخی، اگرچه مفیدند اما میتوانند گسست ها و اختلالاتی را که دگرش های فناورانه میتواند به همراه آورد، پنهان سازند. انقلاب صنعتی، همزمان با ایجاد یک طبقه متوسط بزرگ و موفق، فقر، بیماری و شرایط ناخوشایندی را هم پدید آورد. اتوماسیون توانمندشده با هوش مصنوعی که بر وظایف وکلا، روزنامهنگاران، معلمان و دیگران تاثیر می گذارد، ممکن است پیامدهایی ناخواسته و غیرقابل پیشبینی مشابهی را با خود بیاورد. آچموغلو و جانسون در این زمینه به خوش بینی توصیه نمی کنند. آنها مینویسند که "اگر همه متقاعد شوند که فناوریهای هوش مصنوعی ضروری هستند، در آن صورت کسبوکارها بر روی این فن آوری سرمایه گذاری خواهند کرد حتی زمانی که روش های جایگزینی برای سازماندهی تولید وجود داشته باشد که احتمالا مفیدتر هم باشند." هم گفتمان و روایت داغ مرتبط با هوش مصنوعی و هم "بازار" - تصمیماتی که توسط شرکتهای منفرد انجام میشود - احتمالاً منجر به از دست رفتن شغلها و فقر بیشتر طبقه متوسط خواهند شد.

تسخیر غولها:

هیچ پیامد ناگزیری در کار نیست. پیامدهای اجتماعی اتوماسیون را می توان با واکنشها و تدابیر سیاستی و نهادی تعیین کرد و تاریخ نمونههای مفیدی از این راهکارها را ارائه میدهد. تجربه انقلاب صنعتی به ویژه آموزنده است. در واکنش به گسترش بکارگیری ماشین های بخار در کارخانههای نساجی، معادن و راهآهن که موجد مشکلات تازه و نابرابری های بزرگی شد، دولت (آمریکا هم) نقش آفرینی خود را به طور چشمگیری گسترش داد و شروع به وضع استانداردهایی برای ارتباطات، ایمنی محصول و نیز ترویج آموزش کرد. همچنین جامعه نیز با شکل دادن به اتحادیهها، تعاونیها، جوامع دوجانبه، انجمنهای آموزشی و کتابخانههای عمومی که توسط خیریه ها یا بوسیله دریافت حق اشتراک تامین مالی میشدند، واکنش نشان داد. تنها فناوری نبود که به پیشرفت یاری رساند بلکه ایجاد وزنه های متقابل اجتماعی در برابر قدرت بخش خصوصی بود که تلاش کرد اطمینان حاصل شود که مزایای نوآوریها در گستره جامعه توزیع شوند.

آچموغلو و جانسون نشان دادند که چگونه یک پویش مشابه در اواسط قرن بیستم هم پدیدار شد. پس از جنگ جهانی دوم، تقاضا افزایش یافت و اقتصادهای آمریکای شمالی و اروپا رو به گسترش نهادند. اتحادیههای کارگری که به خوبی سازمان یافته بودند، به نگهبانان کارآمد منافع اعضای خود تبدیل شدند. آموزش عمومی گستردهتر شد و دولتها مدیریت بازارها را به عنوان یکی از مسئولیتهای اصلی خود منظور کردند. بنابراین، بسیاری از کشورهای غربی، به استقبال برنامهریزی اقتصادی رفتند که در چارچوب آن، نهادهای دولتی، جهت گیری راهبردی سرمایهگذاران و کسبوکارهای خصوصی را تعیین کرده و زیرساختها و خدمات عمومی مورد نیاز را هماهنگ میکردند.

چالش عصر حاضر هم در چگونگی دستیابی به چنین نتایجی است. برخی از توصیههای آچموغلو و جانسون، که شامل تقسیم شرکتهای بزرگ فن آور میشود، نیاز به اقدامات دولتی آمریکا دارند که بسیار ناممکن به نظر می رسند. پیشنهادهای این دو نویسنده برای اجرای بهتر قوانین محافظت از رقابت و جلوگیری از ایجاد انحصار، واقعگرایانهتر هستند. در بسیاری از کشورها، از جمله ایالات متحده، جلوگیری از ادغامهای عظیم و تصاحب شرکتها توسط غول های فن آوری به یک اولویت تبدیل شده است. مقامات بخش رقابت و مدیریت بازارهای انگلیس، برای جلوگیری از خرید و تصاحب شرکت بازی های ویدئویی اکتیویژن بلیزارد Activision Blizzard توسط مایکروسافت وارد عمل شدند، کاری که براد اسمیت، معاون مایکروسافت، به طور اغراقآمیزی آن را "تاریکترین روز" در چهار دهه فعالیت این شرکت در انگلستان ارزیابی کرد.

این یک واکنش زبانزد از طرف یک غول فن آوری بود که عادت داشت به راه خود برود. قانونگذاران احتمالاً به مسائل فنی بسیار حساسی مانند تجمیع محصولات دیجیتال، تعامل و اتصال شبکهها و سامانهها و نیز استانداردهای حاکم بر عملکرد فناوریها تمرکز خواهند داشت. نتایج دعاوی حقوقی در مورد چنین مسائلی تعیین خواهد کرد که آیا شرکتهای جدید میتوانند وارد بازار شوند، و نیز نبرد حقوقی بر سر این مسائل اساسی است که بسیاری از جوانب اعمال قدرت در سیلیکون ولی Silicon Valley را آشکار خواهد کرد. دولتها احتمالاً سعی نخواهند کرد که غولهای فناوری را تقسیم و تجزیه کنند اما تلاششان برای کنترل آنها هم اثرات بسیار مهمی خواهد داشت.

آچموغلو و جانسون همچنین در مورد برخی التیام های آشنا برای نابرابریهای ناشی از پیشرفت فناوری بحث میکنند، از جمله درباره اختصاص درآمد پایه یکنواخت برای همه شهروندان، از جمله کسانی که شغلهای خود را به دلیل اتوماسیون از دست دادهاند، روشی که یک درآمد تضمین شده را برای جامعه فراهم می کند. آچموغلو و جانسون مخالف چنین برنامهای هستند و به درستی اشاره میکنند که درآمد تضمینی پایه، از محاسن کمتری در قیاس با امکان دسترسی گسترده تر به کالاهای اجتماعی همچون شبکه حمل و نقل یا سامانه مدارس عمومی برخوردار است. به طور کلی، آچموغلو و جانسون، به واکنشهای جمعی برای حفاظت از رفاه اجتماعی اولویت میدهند همچون ترغیب به تقویت اتحادیههای کارگری در آمازون و استارباکس به جای کارزارهای افزایش دستمزد، شرایط کاری بهتر و فرصت های شغلی. آنها همچنین برنامههای آموزشی جدیدی را پیشنهاد میدهند و نیز فرآیندهای مشارکتی برای بررسی و تعیین نحوه نظارت سازمانهای جامعه مدنی بر فناوریها.

نویسندگان کتاب "قدرت و پیشرفت" همچنین از مقررات سفت و سخت حفاظت از حریم شخصی حمایت میکنند تا شهروندان را از دخالت و آسیب فناوریهای نظارتی محافظت کنند. چگونگیِ حاکمیت بر دادهها و مدیریت آنها، موضوعی است که در بیشتر کشورها، سوژه ی یک بحث فعال است اما ابهامات پیچیدهای در این زمینه وجود دارد. به عنوان مثال، آیا جمعآوری دادههای مکان یابی یک فرد توسط یک برنامه نقشه خوان، یک عمل نظارتی است یا تنها یک ضرورت فنی؟ این برداشت وجود دارد که صِرفِ استفاده مردم از یک برنامه، به شرکت ها اجازه می دهد تا از دادههای کاربران بهره برداری کنند. از طرف دیگر اینکه بخواهیم برای هر برنامه ای هم مورد به مورد، موافقت کاربر را اخذ کنیم، یک بار و فشار اضافی بر روی کاربران و طراحان پلتفرم برنامههاست. نویسندگان یادشده، پرسش های مرتبط با حاکمیت داده ها را در چارچوب "مالکیت داده" مطرح میکنند، اما این نگرش به نکاتی از جمله این موضوع پاسخ نمیدهد که دادههای مفید عمدتا داده های ارتباطی هستند - به عبارت دیگر، در تعامل بین یک فرد با برنامههای مختلف تولید میشوند - و نه کاملاً یکطرفه و انفرادی.

همانند بسیاری از کتاب هایی که درباره نویدها و هراس های فناوریهای دیجیتال نوشته شده، فهرست پیشنهادات بخش پایانی این کتاب، هم بسیار مشروح و هم ضعیف است. مالیات بر تبلیغات دیجیتال، اجرای طرحهای آموزشی، ایجاد یک شبکه ایمنی اجتماعی قویتر، و وضع مالیات بر ثروت میتواند سطح زندگی افراد کارگر را بهبود بخشد و رفتار شرکتهای فناوری را ملایمتر کند. اما فهرست سیاستهای پیشنهادی این نویسندگان - حتی اگر در محیطهای سیاسی دوقطبی بیشتر کشورهای دموکراتیک غربی قابل اجرا هم باشد - به تنهایی به آن چشمانداز مثبتی نمی انجامد که تضمین کند فناوریهای دیجیتال، اشتراک گسترده رفاه در سطح جامعه را به ارمغان آورد. رفع مشکلات ایجاد شده توسط هوش مصنوعی، با تعیین بهترین شکل و شمایل یک جامعه و نحوه کمک فن آوری به ساختن آن متفاوت است. کتاب "قدرت و پیشرفت" در بخش پایانی خود، به عنوان یک نمونه، به تغییر نگرش ذهنی و درمان بیماران ایدز در دهه ۱۹۹۰ اشاره می کند، زمانی که فعالان اجتماعی به تغییر نورم های جامعه کمک کردند تا پژوهش های پزشکی و درمانی ممکن شود. این تجربه ی دلگرم کننده ای است اما دشوار بتوان توازی نزدیکی میان مبارزه با درمان ایدز بعنوان مشکلی که به خوبی تعریف شده بود، با آرام کردن هراس از هوش مصنوعی و فناوریهای دیجیتال برقرار کرد، مسئله ای که مشکلات سیاستگذاری متنوعی را پیش می کشد.

باید دید که چگونه هر نگرش یا روایتی میتواند در ذهن مردم جا بیافتد و به تغییراتی بیانجامد که نویسندگان خواهان تحقق آنها هستند. هوش مصنوعی و دیگر فناوریهای جدید ممکن است نگرانی ها و هراس هایی را بوجود آورند اما تاکنون الهام بخش اندیشه گری روشنی در این زمینه نبوده اند. در اینجا، نکته معروف آنتونیو گرامشی Antonio Gramsci فیلسوف مارکسیست به ذهن میآید که نوشت: "دنیای قدیمی در حال مرگ است، دنیای جدید در تلاش برای متولد شدن است. در این میان انواع مختلفی از علائم بیماری هم ظاهر میشود."

این علائم به آسانی قابل مشاهده هستند. اما آنچه کمتر روشن است اینکه آیا ممکن است، دلتنگ دنیای قدیمی مان بشویم، هنگامی که از دست رفته باشد؟

حفره ی موسوم به «The Deluxe Mystery Hole»...

ما را در سایت حفره ی موسوم به «The Deluxe Mystery Hole» دنبال می‌کنید

برچسب: نویسنده: بازدید: 116 تاريخ: جمعه 7 مهر 1402 ساعت: 23:45

صفحه بندی